隐私保护至上：欧盟通过人工智能法案
编者按：本新闻稿发布于欧洲议会官网，由亚太未来金融研究院编译。
摘要
通用人工智能的保障措施；
限制执法部门使用生物识别系统；
禁止用于操纵或利用用户漏洞的社交评分和人工智能；
消费者有权提出投诉并获得有意义的解释。
上周，欧洲议会批准了《人工智能法案》，该法案确保安全和遵守基本权利的同时促进创新。
该法规于2023年12月与成员国谈判达成一致，以523票赞成、46票反对和49票弃权获得欧洲议会议员的认可。
它旨在保护基本权利、民主、法治和环境可持续性，免受高风险人工智能的侵害，同时促进创新并确立欧洲在该领域的领导者地位。该法规根据人工智能的潜在风险和影响程度规定了人工智能的义务。
被禁止的应用程序
新规定禁止某些威胁公民权利的人工智能应用程序，包括基于敏感特征的生物识别分类系统，以及从互联网或闭路电视录像中无针对性地抓取面部图像以创建面部识别数据库。工作场所和学校的情绪识别、社会评分、预测性警务（仅基于分析一个人或评估其特征时）以及操纵人类行为或利用人们弱点的人工智能也将被禁止。
执法豁免
原则上禁止执法部门使用生物识别系统（RBI），除非在详尽列出和定义狭窄的情况下。“实时”RBI只有在满足严格的保障措施的情况下才能部署。例如，其使用在时间和地理范围上受到限制，并须事先获得特定的司法或行政授权。例如，这种用途可能包括有针对性地搜索失踪人员或防止恐怖袭击。事后使用此类系统（“后远程 RBI”）被认为是一种高风险用例，需要与刑事犯罪相关的司法授权。
高风险系统的义务
预计其他高风险人工智能系统也将承担明确的义务（因为它们对健康、安全、基本权利、环境、民主和法治具有重大潜在危害）。高风险人工智能用途的例子包括关键基础设施、教育和职业培训、就业、基本私人和公共服务（如医疗保健、银行）、执法中的某些系统、移民和边境管理、司法和民主程序（如影响选举）。此类系统必须评估和降低风险，维护使用日志，透明和准确，并确保人工监督。公民将有权提交有关人工智能系统的投诉，并获得有关基于影响其权利的高风险人工智能系统的决定的解释。
透明度要求
通用人工智能（GPAI）系统及其所基于的GPAI模型必须满足某些透明度要求，包括遵守欧盟版权法和发布用于培训的内容的详细摘要。可能造成系统性风险的更强大的GPAI模型将面临额外的要求，包括执行模型评估、评估和减轻系统性风险以及报告事件。
此外，人工或操纵的图像、音频或视频内容（“深度伪造”）需要明确标记。
支持创新和中小企业的措施
必须在国家层面建立监管沙盒和进行真实世界测试，并让中小企业和初创企业能够使用，以便在人工智能投放市场之前开发和训练创新的人工智能。
引用
在周二的全体会议上，内部市场委员会联合报告员布兰多·贝尼菲（S&D，意大利）表示：“我们终于有了世界上第一部关于人工智能的具有约束力的法律，以降低风险，创造机会，打击歧视，并带来透明度。多亏了议会，不可接受的人工智能做法将在欧洲被禁止，工人和公民的权利将得到保护。现在将设立人工智能办公室，以支持公司在规则生效之前开始遵守规则。我们确保人类和欧洲价值观处于人工智能发展的核心。”
公民自由委员会联合报告员Dragos Tudorache表示：“欧盟已经做到了。我们将人工智能的概念与构成我们社会基础的基本价值观联系起来。然而，除了《人工智能法案》本身之外，还有很多工作要做。人工智能将促使我们重新思考民主国家核心的社会契约、我们的教育模式、劳动力市场以及我们进行战争的方式。《人工智能法案》是围绕技术建立的新治理模式的起点。我们现在必须集中精力将这项法律付诸实践。”
后续步骤
该法规仍需经过律师和语言学家的最终检查，预计将在立法机关结束前最终通过（通过所谓的勘误程序）。该法律还需要得到理事会的正式批准。
它将在官方公报上公布后20天生效，并在生效24个月后完全适用，但以下情况除外：禁止和违禁行为，将在生效日期后6个月适用；业务守则（生效后9个月）；包括治理在内的通用人工智能规则（生效后12个月）；以及高风险系统的义务（36个月）。
背景
《人工智能法案》直接回应了欧洲未来会议（COFE）公民的建议，最具体的是关于提高欧盟在战略部门竞争力的提案12（10）、关于安全可靠社会的提案33（5），包括打击虚假信息和确保人类最终控制、关于促进数字创新的提案35（3）同时确保人类监督和（8）可信赖和负责任地使用人工智能。制定保障措施并确保透明度，以及关于使用人工智能和数字工具改善公民（包括残疾人）获取信息的机会的提案37（3）。
END
往期推荐 ●●
// 1
// 2
// 3
// 4
【反侵权声明】
亚太未来金融研究院原创作品屡遭侵权，为维护合法权益，特发表以下声明：
1、一些客户端，未经授权转载我院原创作品，是严重的著作权侵权行为，我院予以谴责及警告，并保留依法追诉的权利；
2、我院严正声明：不得在未注明出处，未取得本公众号授权的情况下对我院翻译、研究的内容进行全部或部分内容截取转载。
温馨提示：现“订阅号”已开通公众号置顶功能，广大读者可点开“亚太未来金融研究院”公众号，点击“星标或置顶公众号”，即可将“亚太未来金融研究院”置顶，以便方便您随时浏览本公众号的最新动态并查阅相关信息。
关于我们
亚太未来金融研究院（Asia-Pacific Future Financial Research Institute，简称AFF）由多家领先的金融机构、FinTech公司、学院等共同发起，并与17名联合学术发起人共同组建。
机构发展
2018年，亚太未来金融研究院携手深圳市金融局、中国支付清算协会共同推动，在深圳市金融局和福田区的大力支持下，成立深圳未来金融研究院、深圳未来金融监管科技研究院。
国际合作
2019年5月11日，亚太未来金融研究院与新加坡金融管理局签署《FinTech合作协议》。这是新加坡金管局继2018年与中国人民银行、中国证监会签署合作函后，与中国主体签署的第三份合作协议。
微信号：apffri
电话：010-66214100
邮箱：apffri@126.com